Objectifs d'apprentissage
- Différencier les paradigmes d'ajustement fin complet et d'ajustement fin efficace en termes de paramètres (PEFT).
- Maîtriser les détails d'implémentation de l'adaptation de faible rang (LoRA) et des adaptateurs à goulot d'étranglement.
- Évaluer l'impact de l'ajustement préfixe et de l'ajustement par prompts sur la convergence du modèle.
- Analyser les compromis entre mémoire et performance dans les environnements d'ajustement fin contraints en ressources.